大模型如今已具有越来越长的上下文，而与之相伴的是推理成本的上升。英伟达最新提出的Star Attention，能够在不损失精度的同时，显著减少推理计算量，从而助力边缘计算。

英伟达 llm starattention 2024-12-05 12:03  16

最近几年AI产品经理爆火，不少同学都想进入其中做AI产品。但学习资料这么多，如何选择自己的方向？作者给到的这些经验可以参考一下。

rag llm 产品经理 2024-12-05 11:34  20

OpenAI 的最新人工智能 (AI) 系统于 9 月发布，并做出了大胆承诺。聊天机器人 ChatGPT 背后的公司展示了其最新的大型语言模型 (LLM) 套件 o1，称其具有“全新水平的 AI 能力”。总部位于加利福尼亚州旧金山的 OpenAI 声称，与之前

智能 人工智能 llm 2024-12-04 11:52  19

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年，机器之心AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：liyazhou@jiqiz

范式 llm judge 2024-12-03 19:36  18

随着人工智能技术的不断进步，大型语言模型（LLMs）正在改变我们与图形用户界面（GUI）的互动方式。本文综述了如何利用LLMs增强GUI自动化代理的能力，通过自然语言指令实现对手机和电脑的智能操作。这种技术的发展不仅提高了自动化的灵活性和智能性，还为GUI自动

电脑 llm gui 2024-12-03 17:55  23

LlamaIndex是一个专为LLM（大语言模型）应用设计的数据框架，它通过简化文档查询流程，让私有或特定领域数据的处理变得轻松高效。LlamaIndex的核心功能包括数据连接器、索引引擎、查询引擎和聊天引擎，这些功能共同构成了其强大的文档查询系统。

开源 llm llamaindex 2024-12-02 19:11  23

随着最近应用迅速普及开来、人工智能（AI）得到广泛采用，大语言模型（LLM）已变得备受广大公司企业、开发人员和非开发人员的欢迎，因为它们为用户提供了诸多好处。它们帮助开发人员调试代码并生成代码片段，还帮助澄清看似复杂的编程概念和任务，从而提高生产力。

模型 llm 软件系统 2024-12-02 16:37  17

LLM在推理时，竟是通过一种「程序性知识」，而非照搬答案？可以认为这是一种变相的证明：LLM的确具备某种推理能力。然而存在争议的是，这项研究只能提供证据，而非证明。

llm ucl 程序性知识 2024-12-02 14:32  18

这就是来自加州大学和微软研究院的最新研究成果：Flow-DPO。通过使用在线学习流（Flow）和直接偏好优化（DPO, Direct Preference Optimization），可以让LLM生成更加详细和精确的推理轨迹。

微软 数学 llm 2024-12-02 12:34  20

挑战一，上下文理解：随着对话轮次的增加，模型需要处理的上下文信息越来越多，这可能导致信息遗忘或混淆。此外，模型的上下文窗口大小有限，可能无法容纳整个对话历史。

模型 llm agent 2024-12-02 11:19  16

大语言模型（Large Language Models, LLMs）的部署是一项具有技术挑战性的工作。随着模型架构日益复杂，以及硬件需求不断提升，部署过程变得愈发复杂。业界已经发展出多种解决方案，使LLM的部署和扩展变得更加便捷。从适用于个人开发的轻量级本地部

推理 llm llm推理 2024-12-01 09:34  19

于是出现了本地语言模型及其小型等效物，例如小型语言模型。开发者社区越来越关注它们的好处，所以让我们看看究竟是怎么回事。除了概念本身，我们还将介绍最佳模型、它们的好处以及这如何影响整体的 AI 辅助开发。

llm slm 本地llm 2024-11-30 21:46  19

RAG在通用人工智能、数据科学和人工智能的发展领域中起到了变革性的作用。RAG模型让机器能够基于事实产生更准确、连贯和一致的语言，它改变了人类与技术的互动方式。RAG让能够撰写独特内容、引人入胜的产品描述和新闻文章的机器人概念成为现实。尽管RAG的重要性日益增

rag llm rag面试 2024-11-30 06:18  17

就在刚刚，LeCun一反常态地表示：AGI离我们只有5到10年了！这个说法，跟之前的「永远差着10到20年」大相径庭。当然，他还是把LLM打为死路，坚信自己的JEPA路线。至此，各位大佬们的口径是对齐了，有眼力见儿的投资人该继续投钱了。

奥特曼 llm lecun 2024-11-29 15:02  20

两年前，由大语言模型（LLM）引领的生成式人工智能技术风暴席卷全球，迅速渗透到我们的日常生活。对此，有人欣然接受，有人持保留意见，更有极端声音对机器智能的崛起发出可怕预警。相比之下，半导体行业——作为人工智能发展的基石，对这项新兴技术的采纳态度显得尤为审慎。

eda llm rtl 2024-11-29 09:12  17

今天我们将介绍一篇综述 LLM 与知识图谱联合相关研究的论文，其中既包含用知识图谱增强 LLM 的研究进展，也有用 LLM 增强知识图谱的研究成果，还有 LLM 与知识图谱协同的最近成果。文中概括性的框架展示非常方便读者参考。

模型 llm 知识图谱 2024-11-28 21:33  19

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年，机器之心AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：liyazhou@jiqiz

llm mssp phm 2024-11-28 14:51  21

比如，光定制代码就能把你搞到没脾气。大家也许不知道，LLM 应用要访问外部数据，开发者就得写一堆定制的代码，又麻烦又重复，简直是噩梦！每个新的数据源都需要自定义的实现，这使得构建真正互联的AI系统难以扩展。

代码 llm llm应用 2024-11-28 13:18  19

具体而言，学术研究者往往没有资源获取足够强大的图形处理器（GPU）——这些电脑芯片常用于训练AI模型，且价格昂贵，可达数千美元。相比之下，大型科技公司的研究者预算更高，可以在GPU上投入更多资金。“每增加一块GPU，就能提升更多算力。”美国布朗大学计算机科学家

llm 学者 学术界 2024-11-28 11:26  19

如今，GPT-3、GPT-4或谷歌的BERT等大型语言模型(LLM)已经成为人工智能理解和处理人类语言的重要组成部分。但在这些模型展现出令人印象深刻的能力背后，却隐藏着一个很容易被忽视的过程：标记化。本文将解释标记化的定义，标记化如此重要的原因，以及在实际应用

llm 单词 标记 2024-11-28 09:12  16